公司新闻

公司新闻

紧急!功率、内存、互连和可扩展性正拖 AI 后腿

作者:欧宝体育官网在线入口 日期:2025-03-10 07:07:45

  一个充满人工智能的世界正在迅速崛起,改变着各个行业和日常生活。从先进的太空探索和智能城市到个性化医疗保健和精准农业,人工智能正在彻底改变我们与技术的互动方式。它推动教育、能源效率和自动驾驶领域的突破,展现出其应对全球挑战的潜力。

  随着人工智能无缝融入所有的领域,未来有望增强创新、生产力和连通性,塑造一个更智能、更可持续的世界。

  根据 2014 年以来AI相关电力需求的迅速增加,这得益于AI系统的广泛部署。这一激增主要由AI训练和推理任务中 GPU 的使用率推动。预测表明,到 2030 年,AI系统可能消耗美国总电力的 16%——这是一个惊人的估计。短短两年内,人工智能的电力需求预测将增加 5 倍。尽管 GPU 的每瓦性能正在取得进步,但这些进步不足以抵消AI系统规模扩大造成的能源消耗增长。

  这些 GPU 明显提高了训练计算能力(以 PFLOPS 为单位),以满足 AI 工作负载(包括图像处理和大型语言模型)的需求。性能的大幅度的提高(尤其是在 2027 年至 2028 年之间)与 2nm 及以下先进节点的量产相吻合。更高的内存带宽和更大规模的异构集成支持了这一增长,从而确保了更高的计算能力能够很好的满足 AI 一直增长的需求。

  有趣的是,虽然目前大部分功耗都集中在 AI 训练上,但推理任务预计将大幅度增长,因为大型语言模型 (LLM) 需要大量能量做处理。管理这种指数级需求将需要在能源效率和硬件优化方面做重大创新。模块化架构、改进的互连和节能的 AI 芯片将至关重要,同时采用可再次生产的能源并优化数据中心的电力使用以减轻环境影响。随着 AI 驱动的工作负载慢慢的变多地将重点从训练转移到推理,进一步增加电力需求、平衡性能和可持续性对于确保 AI 技术的可扩展性和长期可行性至关重要。

  另一个核心问题是内存。虽然内存容量每两年翻一番,但 LLM 却以前所未有的速度扩张,网络规模每两年增长 410 倍。这导致内存容量和带宽的双重短缺。

  SK Hynix 表示,其已售出 2025 年配额的大部分高带宽内存芯片,AI 热潮仍在持续。

  虽然存储级内存 (SCM) 能解决容量问题,但这些内存的速度太慢,无法跟上计算速度,因此导致瓶颈。因此,内存容量和带宽必须同时提高。

  互连限制在推动 AI 芯片走向先进封装方面起着至关重要的作用,因为传统的互连技术没办法满足 AI 工作负载日渐增长的需求。

  CSP(芯片级封装)和 FBGA(细间距球栅阵列)是用于较小节点的现代封装方法,非常适合于移动和消费应用。

  FCBGA(倒装芯片球栅阵列)和 TSV(硅通孔)代表更先进的封装,集成了多芯片堆栈,通常用于高性能应用。

  C2W 键合(芯片到晶圆)、W2W 键合(晶圆到晶圆)和微凸块 TSV 代表较新的封装方法,专注于 3D 集成和更小的节点尺寸,提供增强的互连性和性能。

  AI 芯片需要极高的数据传输速率和低延迟来处理大量数据,尤其是在 LLM 等大型模型的训练和推理任务中。然而,传统的互连面临着以下挑战:

  带宽瓶颈:传统互连难以为高性能 AI 系统提供足够的带宽,导致处理单元之间的数据移动延迟和效率低下。

  能源效率:随着互连规模的扩大,能耗明显地增加,假如没有先进的节能解决方案,使用传统方法扩展系统是不切实际的。

  集成挑战:现代 AI 系统常常要多个芯片或模块无缝协作,这需要比传统互连更紧密的集成。

  扩展限制:随着 AI 模型规模的扩大,对紧凑、高密度互连的需求变得至关重要,以集成芯片和内存组件。

  芯片集成、3D 堆叠和硅通孔 (TSV) 等先进封装技术通过实现更高的带宽、更低的延迟和更好的功率效率来解决这些限制。这些创新使 AI 芯片能够有效扩展,同时满足下一代工作负载的需求

  UCIe(通用芯片互连规范)是一个行业联盟,致力于开发和推广芯片互连的标准化规范。其目标是实现来自不同供应商的芯片之间的无缝通信,促进半导体设计的互操作性和模块化。通过建立通用标准,UCIe 旨在提高先进半导体系统的可扩展性、效率和灵活性,促进 AI、HPC 和数据中心等领域的创新。

  英特尔、AMD、台积电、ARM、ASE等半导体行业的主要公司都参与了这一计划。

  UCIe 的未来在于它能够将业界领先的 KPI 扩展到 UCIe-3D,以此来实现芯片互连技术的重大进步。从 UCIe-S (2D) 和 UCIe-A (2.5D) 到 UCIe-3D 的演进突出了数据速率、功率效率和带宽密度等关键指标的改进。

  深圳街头无人面馆仅需48秒就能出品一碗,价值33万机器人现做9.9元面,没有感情全是效率

  近日,深圳出现无人的面馆,从和面到出餐都由机器人完成。面条标价最低为9.9元/碗,现吃现做,48秒就能出餐一碗面。 据潇湘晨报,该出餐煮面机器可全国售卖,价格为33万一台。

  潮汕英歌与海阳大秧歌同台斗舞,二者气势各异,一个靠动作,一个靠呐喊,网友:看了一场跨越南北的非遗“对话 ”

  潮汕英歌与海阳大秧歌同台斗舞,二者气势各异,一个靠动作,一个靠呐喊,网友:看了一场跨越南北的非遗“对话 ”

  总台记者获悉,当地时间3月8日17时48分左右,韩国总统尹锡悦被释放,离开首尔拘留所,前往位于首尔汉南洞的总统官邸。尹锡悦在首尔拘留所附近再次下车向支持者致谢。自2025年1月15日尹锡悦被逮捕至今日上午,已满52天。

  突变,俄罗斯猛攻,数千名乌军被包围?特朗普:不能这么干!泽连斯基呼吁空中、海上停火!美国切断乌克兰对卫星图像访问权限

  据央视新闻报道,3月7日,乌克兰总统泽连斯基在社交平台发文称,俄军再次对乌能源设施发起大规模袭击。据悉,这是3月5日美国宣布暂停与乌克兰分享情报以来乌遭遇的首次重大导弹袭击。

  浙江三名男子20分钟盗取200张刮刮乐,企图“一夜暴富”,警方:被抓时还没刮完

  “刮刮乐”是一种即开即得的彩票。近日,有几个男子就偷了一家彩票店,妄想通过一次性刮开所有的彩票“一夜暴富”。当然他们不仅没有暴富,还被警察叔叔抓了。事发当天早晨,浙江绍兴市越城区公安分局城南派出所接到报警称,辖区一家彩票店被盗。

  2月初恰逢春节假期,但节后多地楼市迅速恢复,深圳楼市也不例外。深圳乐有家研究中心最新公布的多个方面数据显示,2月深圳一二手住宅网签总量超6000套,均实现同比翻倍增长。

  被学生打致抑郁,男老师看病途中跳河自杀!工伤官司7年15次来回!当地人社:就是不认!法院:算!必须执行

  男老师因被学生殴打,出现应激障碍患上抑郁症,在看病途中跳河自杀,算工伤吗?市人社局:殴打受伤算工伤,自杀不算工伤!家属:明明是由于工作原因,为什么不算?!怒将市人社局告上法庭!案件打了7年,历经15次来回,终于尘埃落定…事件回顾陈某曾在福建省台溪中学任教。

  在这场历史洪流中,王全国,这位从基层一路走来的干部,成为广东经济转型的重要推动者。1978年,他被任命为广东省委书记,站在了改革开放的最前沿。